Völler telah beraksi dalam 90 perlawanan antarabangsa untuk pasukan kebangsaan Jerman dan menjaringkan 47 gol. Lapan daripadanya pada aksi Piala Dunia.

Völler beraksi dalam tiga edisi Kejohanan Eropah bermula Euro 1984 apabila beliau menyumbat dua gol pada perlawanan peringkat kumpulan menentang Romania yang berkesudahan Jerman menang 2-1. Pada perlawanan seterusnya menentang Sepanyol, beliau beraksi 90 minit perlawanan namun kemenangan tidak berpihak kepada pasukan beliau selepas tewas 1-0 biarpun mengharapkan keputusan seri untuk layak ke pusingan seterusnya.

Pada saingan Piala Dunia FIFA 1986, Völler menjaringkan gol untuk pasukan Jerman Barat bagi menyamakan kedudukan 1-1 sebelum pasukannya akhirnya menang 2-1 ke atas Scotland dalam aksi peringkat kumpulan. Di samping itu, pada perlawanan separuh akhir bertemu Perancis, beliau menambah satu gol bagi memastikan pasukan Jerman Barat menempah tempat ke perlawanan akhir Piala Dunia selepas menang 2-0. Pada perlawanan akhir, beliau berjaya menyamakan kedudukan 2-2 menentang Argentina. Pada mulanya, Jerman ketinggalan 2-0 tetapi akhirnya tewas 3-2. Völler menjadi pemain ketiga yang menjaringkan gol pada perlawanan akhir Piala Dunia sebagai pemain gantian selepas Dick Nanninga pada 1978 dan Alessandro Altobelli pada tahun 1982.

Jerman Barat dipilih sebagai tuan rumah bagi acara Euro 1988 dan Völler menjaringkan dua gol ketika menentang Sepanyol. Namun, pasukan tuan rumah terpaksa berduka selepas kecundang 2-0 di tangan Belanda pada separuh akhir.

Völler merupakan sebahagian daripada pasukan Jerman yang menjuarai Piala Dunia 1990 di Itali. Beliau menjaringkan tiga gol sepanjang kejohanan termasuk satu gol ketika menang 4-1 ke atas Yugoslavia dan ketika menyumbat dua gol sewaktu membelasah Emiriah Arab Bersatu 5-1. Pada pusingan kedua menentang Belanda, Völler dan pemain Belanda, Frank Rijkaard kedua-duanya dibuang padang selepas pemain Belanda itu meludah ke arah Völler sebanyak dua kali.Völler kembali beraksi untuk Jerman pada aksi separuh akhir dan perlawanan akhir, di mana Jerman menang 1-0 menentang Argentina.

Insiden buruk yang melanda pusingan kedua Piala Dunia antara Jerman dan Belanda bermula apabila Rijkaard dipersalahkan selepas melakukan terjahan buruk ke atas Völler. Ketika Rijkaard mengambil posisi untuk sepakan percuma Jerman, beliau meludah ke arah rambut si Völler. Völler seterusnya merungut kepada pengadil terjahan tersebut salah. Keputusannya, pasukan Jerman memperoleh sepakan percuma. Apabila sepakan diambil, Völler dengan pantas menumbuk bola itu dengan menggunakan tangannya (walaupun jika dilihat beliau menggunakan kepalanya) sebelum beliau jatuh untuk mengelak daripada berlanggar dengan penjaga gol Belanda Hans van Breukelen meskipun Völler berbuat begini untuk mendapatkan tendangan penalti. Van Breukelen berang tetapi Rijkaard pula yang dilihat lebih berang terhadap Völler dengan memulas telinga pemain Jerman itu. Seterusnya, Rijkaard dan Völler kedua-duanya dibuang padang tetapi Rijkaard sekali lagi meludah ke arah rambut si Völler sebelum mereka berdua meninggalkan padang. Rijkaard kemudian menyatakan insiden ini berlaku daripada kesalahan dirinya sendiri dan berkata: "Hari itu saya memang salah. Tidak ada langsung penghinaan antara kami. Saya sepenuhnya amat menghormati Rudi Völler. Tetapi saya mengamuk apabila saya dilayangkan kad merah. Saya berkata kepada dia (Voller) selepas perlawanan itu dan saya memohon maaf. Saya amat gembira beliau menerimanya. Saya tiada perasaan jahat terhadap dia (Voller) sekarang."

Völler dipilih ke dalam skuad Euro 1992 tetapi beliau terpaksa dihantar pulang selepas mengalami kecederaan pada perlawanan pembukaan menentang CIS.

Dalam saingan Piala Dunia 1994, Völler tidak dimasukkan ke dalam kesebelasan utama Jerman pada ketiga-tiga perlawanan peringkat kumpulan selepas bahagian serangan diisi oleh Jürgen Klinsmann dan Karl-Heinz Riedle yang telah menjaringkan lima gol sesama mereka. Namun, Völler diturunkan pada pusingan kedua menentang Belgium dan beliau menjaringkan dua gol bagi membantu pasukannya menang 3-2 dan mara ke pusingan seterusnya.